CMDR: Contextual Multimodal Document Retrieval
上下文多模态文档检索:联合编码+对比学习
🧭 多模态检索 · 上下文文档嵌入
NTT Human Informatics Laboratories, NTT, Inc., Tokyo, Japan
提出首个要求跨页上下文建模的多模态文档检索基准与嵌入框架CMDR-Embed,结合CMCL对比学习显著提升跨页查询性能
📌 工作参考价值(4 点)
- 商品详情页跨图检索:可借鉴联合编码多页/多图的上下文嵌入思路,处理商品描述分布在多张细节图或PDF说明书中的场景,提升需要综合多图信息的查询召回率。
- 多模态对比学习训练 trick:CMCL平衡上下文建模与页面区分性的损失设计,可直接用于训练电商多模态检索模型,尤其适合“店铺主页多图组合匹配用户风格查询”等任务。
- RAG 中的多模态文档检索增强:在电商客服或搜索总结系统里,用CMDR-Embed替换现有文档嵌入,能让检索到的页面片段保留更完整的上下文,提高生成答案的事实一致性。
- 构建检索基准的方法论:可参照CMDR-Bench设计面向业务的跨页/跨图上下文检索评测集,衡量排序模型对“浏览型查询”(如“适合搭配这个包的上衣”)的上下文理解能力。